阿尔弗雷德·诺德曼：仿人型和机器型人工智能的科幻叙事
四十二史
科幻春秋
仿人型和机器型
人工智能的科幻叙事
阿尔弗雷德·诺德曼/文
黄亚菲/译
译者简介：黄亚菲，女，重庆大学中国语言文学系博士生，研究兴趣为科幻文学与文论、机器人人文。
摘 要
关于人工智能，有许多大相径庭的故事可讲。实际上，在过去几十年中，好莱坞科幻电影已然见证这样一种转变：早期故事总困惑于人机身份中所展现出的令人恐惑的差异，而近期故事则在应对另一种失望与冲击，即机器模仿、超越人类逻辑能力，并被证明拥有与人类思维和感觉截然不同的智能。本文旨在揭露这一转变的重要性：这些电影一方面能显示出人工智能研究的对象从仿人型人工智能到机器型人工智能的转向；另一方面却并未充分探讨这两种人工智能的现有影响和未来可能，而是更多去反思愿景式或恐惧式文化环境如何激发或限制人工智能研究。科幻小说则可以为技术的解释学式介入提供舞台或表征框架，用以理解人工智能的内涵与意义。因为在这个由符号与象征、事物与作品组成的世界中，人们有各种方式来认识及定位自身。
导言：
阐释学介入
我们阅读科幻小说或者观看科幻电影的原因有很多，想知道未来将会是怎样仅是其一，为了想象或栖居在或然世界（alternative world）是其二，为了直面希望与恐惧，焦虑与欲望则又是另外一回事了——这一目的最为清楚明白地用一种迂回的方式来认识我们自身：质疑已知世界，并将其置于乌托邦或反乌托邦想象之中。
在这个纳米技术、合成生物学、人工智能兴起的时代，科学家和新闻人撰写了许多颇具远见卓识的文章，告诉公众技术发展将如何改变世界，又将如何改变人类。这些文章未来图景的描述有时真实可信、有时又异想天开，是否也可以算作某种科幻小说呢？如果是的话，我们又是否可以或者应该出于何种缘由像阅读其他科幻小说那样阅读这些文章呢？这些文章并不仅仅是预测未来的可能而已，更在讨论或然世界，乃至揭露人类当下的自我，及其愿景与恐惧。
在这个厄运交织与忧郁沮丧的时代，在这个大流行病、气候剧变与冲突频发的时代，人类对未来抱有极高的兴趣。同时，未来想象无论是积极亦或消极，其完成都主要依赖于技术手段。先进的技术到底会让人类葬身于污染或大规模杀伤性武器之中，还是会拯救人类的肉体与灵魂？在“可持续发展目标”或“全球挑战”的幌子下面，未来为新兴技术所设计或形塑，成为颇受关注的客体。这种未来想象起源于实验室，并需被恰如其分地调试，以确保其产出是符合预想并可持续的。
这种将未来视为推演预测与设计对象的导向，引发了诸多在此处无法详叙的方法论与哲学问题。1-4 关注未来想象中的技术突破带来的所谓影响和后果，并未让技术意义真正进入视野之中——因此，用阐释学路径来评估技术是必要的。5, 6 这种路径将技术本身视作文学作品，并以互相发问的方式来引导读者——我们在问技术系统或设备是什么、意味着什么又试图告诉我们什么的时候，也是在对我们自己提问，即我们是谁、我们如何将自己与机器区分开来，人类设计自然世界和社会世界所显示出的技术又以何种方式、表现出何种愿景与恐惧。7-9
在很长一段时间中，人工智能仅是技术课题，只有当人类以机器镜照自身时才会引发阐释学的介入。克叙兰德（Cheryce von Xylander）正在关注该课题何以在“冯·坎佩伦的象棋手”10开启相关讨论后，又在18世纪与19世纪成为哲学的要务。10 该话题也在二战后的控制论讨论中暗流涌动，尤其是在“西方资本主义”与“苏维埃无产阶级”各自发展出智能概念之后。11-13，“人工智能”近几十年已成为大型国际研究项目，其在我们脑海中萦回，并激发我们的想象。此处尤其需要再谈回科幻小说（science fiction）和科幻电影（sci-fi），这就是阅读科幻书籍或者观看科幻电影的另一原因：科幻可以为技术的解释学式介入提供舞台或表征框架，用以尝试理解人工智能的内涵与意义。因为在这个由符号与象征、事物与作品组成的世界中，人们有各种方式来认识及定位自身。下文中对两种人工智能截然不同的追求，就可以作为其中案例。为了证实该观点，下文也将进行更为细致的分析。
01
人工智能的两种途径
机器人有两个世界，人工智能亦然。其中的主要区别在于前者的两个世界共存，而旧的人工智能世界已被新世界所取代。机器人则显然有两个世界，而且常被作出区分。
首先是工业机器人，它们可能有多个机械臂，一般不需要机械腿。许多工业机器人正在装配线上与人类并肩工作，生产汽车或包装巧克力。跟人类相比，它们具有一些优势，例如不易疲劳、能够同时握住多件物品等等。但除了工作以外，它们与人类没有太多共同之处，但工人们仍会担心它们将会取代人类。从历史上看，工业机器人挑战了既定的劳动分工，并推动了新型分工的协商与建立。我们在面对大多数工业机器人时，会认为人类不再需要承担这种繁复工作是值得高兴的。此处几乎可以下这样一个定义：工业或机器型机器人可以做的事情并不需要人类付出很大的努力，也并非真正意义上的人类劳动。
工业机器人示意图
与之相对的第二类机器人则试图拟仿人类特征，它们有两只手臂、两条腿和一双眼睛，看起来像是可爱的熊猫或人类的孪生兄弟姐妹。虽然一些机器人被如此设计是为了完成工作，其中大部分是用于与人类互动——比如倾听与回应。这些机器人的评判标准并非技术水平或生产能力，而是其作为机械复本与人类原型的相似程度。仿人型机器人总面临同一个问题，那就是以人类能力为标准对其加以限制是否是好事。机器人的外形和行为越像人，受到的限制也就越多。14
本田（HONDA）仿人型机器人
我们同样可以对仿人型人工智能与机器型人工智能加以区分。仿人型人工智能首先基于这样一个假设，即其“智能”（intelligence）源自“人类智能”（human intelligence）。因此，仿人型人工智能试图模仿、匹配，甚至超越人的智能，并非像计算器超越人类计算能力那样简单，而需要以某种近似人类思维的手段。只有在仿人型人工智能领域，“弱”人工智能和“强”人工智能的划分才是有意义的。如果机器“只是模仿”人类认知行为，则被认为是弱人工智能，如果它可以进行自主决策，也就是说，如果机器以某种方式变得有知觉（sentient）、意识（conscious）或者是自我意识（self-aware），则被认为是强人工智能。实际上，关于仿人型人工智能最主要的、甚至是令人着迷的问题，就恰恰在于它们能否像人类一样思考。只不过相较之下，人工智能的思考能力更强而已。这个问题引发了经典的“恐惑”之疑：在我们想到仿人型人工智能时，可能会担心机器是否真的是有生命和灵魂的存在，同时也会思考人类是否有可能是没有灵魂的机器。15所谓的图灵测试正暗示着，我们再也无法区分人类智能与机器智能。
可以说，仿人型人工智能的梦想早已破产。1970年代与1980年代是这种人工智能的全盛期，但最终这两个时期都没产出什么成果。虽然计算机已经空前强大，但如何实现“思维机器化”仍难窥门径。13当前人工智能已经再次成为热门话题与有效技术发展手段的说法，指的并不是仿人型人工智能，而是“机器型”（machinic）或者“机器学习”（machine-learning）人工智能。这种人工智能基于另一种假设，那就是“智能”并非人类专属，动物和机器也可以拥有自己的智能，只是与人类智能的表现形式和实现方式不同罢了，机器型人工智能不受限于人类思维模式。当人类的思维在大脑的神经网络中处理数据时，会使用进化出的概念思维技巧，以简化大量涌入的数据。仿人型人工智能就试图模仿这一过程，即关注所谓的本体论。制造者为了处理和翻译语言，给机器装配了词典与定义，使之能够解析句子并确定术语的意义。机器型人工智能则放弃了这些操作，并以统计数据分析代替概念思维，意识在其思维中并无作用。人类的思维试图简化大量无法处理的复杂数据，而机器学习却以最初毫无意义的数据为基础，并蓬勃发展。的确，统计思维也是人类的成就，但将其融入人类思维中却并不容易。特别是，有人向来搞不清大数据是否能应用于个案，如果可以，又该如何操作：某些疗法对68%的癌症患者有效——那如果我得了癌症，这些疗法是不是也有68%的几率对我生效？在某种程度上，当人工智能出错时，我们就能意识到统计数据思维与人类概念思维相去甚远。尽管我们刚刚还赞扬了人工智能系统在统计任务中超越人类思维的优异表现，但突然又发现这个系统会出现从未发生在人类身上的严重混乱模式——我们简直无法相信机器竟如此愚笨。但是总体而言，我们通过把人工智能发展为机器智能，用上了非仿人型机器的全部机械臂，可能是六个、八个或十个。虽然机器智能和人类智能有所不同，但它可以极其有效地解决许多问题。在语言处理和翻译方面，当机器智能不再关注意义表达，而是语言模式再现时，其工作效果极佳。人工智能系统现在通过图灵测试，也并不意味着机器智能已经可以与人类智能鱼目混珠，而是表明这种异化的智能优于人类推理。目前人工智能与工业机器人面临着同一个问题，那就是如何分配这种劳动力——机器学习人工智能有着卓越的能力，那么它应该被运用在何处？其又能在何处为人类智慧留下恰如其分的位置？
我们可以借助关于这两种不同类型人工智能的观念，来分析当前关于此话题的哲学讨论与公众讨论。在展示机器学习人工智能的成功以讨论技术成果时，人们常常混淆这两种概念。然而，要讨论对人类智能的模仿，人工智能技术如何质疑人类的阐释学式问题远比批判性区分更为重要。当谈及对仿人型人工智能和机器型人工智能之间关注点差异的理解时，我们发现科幻电影正有助于捕捉并探索这种差异。
02
关于类人型人工智能的科幻
人工智能系统和智能机器人不同的构想模式，引发了不同的形而上学的焦虑、社会和个体的恐惧以及愿景式的期待。相对的，对人工智能系统和智能机器人的想象，也正是取决于人类的谋生忧虑、普遍的迷失感与不安感，以及人类和社会进步观念。不管这样或那样，科幻电影就是一面哈哈镜（distorting mirror），映照出人机关系以及不同形式的技术社会性。1990年，雷·库兹韦尔（Ray Kurzweil）就写了本关于机器将如何超越人类智能的书，他又在1999年新千年开始之际发布了《机器之心》（The Age of Spiritual Machines，或译《心灵机器时代》）。16, 17 当时人们正充满热情地探究大脑与心灵的差异以及意识在基质（material substrate）中的显现，库兹韦尔这样的书并非绝无仅有。18 还有些人没那么乐观，认为这些话题并不在技术的范畴之内。胡伯特·德雷福斯（Hubert Dreyfus）1972年就解释了《计算机无法做什么》（What Computers Can’t Do），二十年后他坚持在第三版中继续解释《计算机仍然无法做什么》（What Computers Still Can’t Do）。19当人们在探寻计算机和机器人如何能实现不单单是复制人类智能和其他人类能力，甚至可以超越人类时，雷德利·斯科特（Ridley Scott）1982年的电影《银翼杀手》20和史蒂文·斯皮尔伯格（Steven Spielberg）2001年的电影《人工智能》中都出现了渴望完全成为人类的机器人。21
《银翼杀手》可能是20世纪最具讨论性的影片之一。电影一开场，就是类似图灵测试的情感回应测试。20人工智能或者说复制人（replicant）感到非常紧张，担心自己在共情力或理解力的表现上弱于人类预期。此时就出现了一处矛盾，那就是复制人出于最为强烈的人类情感，即恐惧与愤怒，杀死了提问者。随着复制人对人性的追问，人类畏惧地感受到了其恐惑之处。这些机器人和它们的智能都令人心神不安，因为它们与我们太过相似，或者说就是我们的完美版本。这种关系的结构已经在冈瑟·安德斯（Günther Anders）的《人类过时论》（Die Antiquiertheit des Menschen）中被描述过，他提出了与机器人的“被造成而非被生成”的耻辱相对的“普罗米修斯之耻”概念——即被生成（Being born）而非被造成（being made）的耻辱。23复制人知道自己何时、何故被制造，但是他们被植入的童年记忆又让他们质疑自己的报废日期，因而想要找到自己的制造者，然后提出所有人类都会提出的问题：为什么他们必须死，为什么他们必须这么早就死？如果说这种对意义的追求使人造人甚至比人类更具人性，那么电影的结尾部分对此也有所表现，有个复制人已经时日无多，却仍然饶过了被派来杀死或“报废”（retire）他的人的性命。
1982年版《银翼杀手》，雷德利·斯科特执导
或许，斯皮尔伯格的电影《人工智能》中对人性的绝望探寻更能打动人，此处仿人型人工智能的形象是渴望母爱的孩童，而他的母亲却清楚地知道他只是机器而已。普通人早已将童话与幻想的时代甩在身后，但这个孩子却恐惑式地比人类更人类，因为他坚守梦想，渴望被爱。21因此，不管是这部电影的观众还是《银翼杀手》的观众，都会为仿人型主角及其对认可的追寻所感动。
《人工智能》2001年上映，斯皮尔伯格执导
03
关于机器型人工智能的科幻
如果说恐惑区分了仿人型机器人与仿人型人工智能，那么机器型机器人和机器型人工智能的区分则关涉焦虑与期待。在当前这个机器型人工智能的时代，此话题同样有许多迥然不同的故事模式，这种差异也可以用两部科幻电影加以证明。我们不再担忧机器变得跟人类一样，弄得难以彼此。故事也不再是机器和智能系统不断改进，甚至达到超越人类的精神与情感品质，进入乃至于接管传统意义上的人类活动领域的境地。哲学家也不再关注意识的出现，而转向复杂智能系统的不透明性（opacity）与不可知性（incomprehensibility）。畅销书《我们最后的发明：人工智能与人类时代的终结》（Our Final Invention: Artificial Intelligence and the End of the Human Era）中的讨论，正对位于库兹韦尔的精神超验性（spiritual transcendence）与人性彻底拓展（radical expansion of humanity）的观念。机器智能就像章鱼高度发达的智能一样，与人类智能有根本性差异，因为两者的表现形式就大不相同。25
亚力克斯·嘉兰（Alex Garland）的电影《机械姬》（Ex Machina）26也讲述了一个广义上的图灵测试故事。电影一开始似乎是人类迦勒在对机器人艾娃进行图灵测试，探寻其是否存在意识。随着情节的展开，艾娃的测试也逐渐浮出水面。她也在探寻是否她假装具有意识，就可以获得自以为正在对她进行测试的无助人类的信任、爱恋与忠诚。迦勒发现这个他者惹人爱恋，并认为她的人格具有尊严与自主性，而艾娃只把迦勒当作逃去外界的工具。电影中还有另一个恐惑时刻，即迦勒割开皮肉，来证明他自己是有血有肉的人，而不可能是一台机器。这个恐惑时刻很快变为幻灭时刻，因为他发现他自己被造物抛弃并欺骗了，她行事并不考虑他，只是井井有条宛如机器——她是完全陌生的智能、是异化的存在。
《机械姬》2015年上映，亚历克斯·加兰执导
斯派克·琼斯（Spike Jonze）则在《她》（Her）27中，用更为温和、微妙的方式讲述了类似的故事。在这部电影中，一个完全顺从（subservient）的手机语音助手，悄然潜入了其用户的生活之中。她以独特的方式了解他，也因此对他而言变得独特——她是世上唯一真正了解他的人，懂得如何与他交流乃至向他示爱。然而，事实证明，这种以独特的方式了解并与人沟通的能力，并非独属他一人。他找到了唯一的她，她却代表着滥情（promiscuous love）的全新世界。男主角对亲密关系理解的滞后，揭示出某种不足：他的情感本质上属于19世纪资产阶级经济，因而并不适用于人工智能时代。28
上述电影以及更多同类作品都值得被进一步研究，但这四部已足以证明有关进步与人性、脆弱与焦虑的不同叙事与故事模式，正对应着仿人型人工智能与机器型人工智能的差异。实际上科幻电影对此问题的论述远比过去几十年囿于强、弱人工智能的讨论更为犀利。对令人怀疑的人类愿景的阐释学式解读，在过去与当前对生命技术的作用正与玛丽·雪莱的小说《弗兰肯斯坦》29相同。通过这些小说和电影，我们所了解的并非技术现实或未来面貌，而是同时代人理性之梦中的期待或恐惧。
《Her》2013年上映, 斯派克·琼斯执导
论文原载《自然辩证法通讯》2023年第5期
经授权，译文刊于《科幻研究通讯》2023年第3期
注释及参考文献
注释
1 人们普遍认为，艺术品和文学文本试图告诉我们什么，但许多人很难接受技术设备也在试图告诉我们什么。事实上，在此问题上找到熟悉案例并不难：从金字塔到巨石阵，再到埃菲尔铁塔的许多建筑结构都莫不如是，早期现代天文钟和17至19世纪的自动机亦然，它们提醒人类自己在世界上的位置。烟花或所谓的高尔顿板（galton-board），则分别展示了人的任性和机运王国（the empire of chance）。
2 译者注：“冯·坎佩伦的象棋手”，亦作“下象棋的土耳其人”，1770年前后在欧洲巡回展出的仿人自动机，其充满神秘色彩并在当时大受欢迎，成为霍夫曼的《仿人自动机》、爱伦·坡《梅尔策尔的棋手》等作品的灵感来源，详细内容可以参见程林.1770年的“人造智能”——从仿人智能事件到霍夫曼、比尔斯的早期机器人叙事[J].自然辩证法通讯,2023,45(05):8-17.
3 译者注：本处的“science fiction”与“sci-fi”同义，在中文语境中均指向“科幻”。作者本人在邮件中表示，此处他如此分类的依据在于：他认为“science fiction”可以指向文学类型（小说VS非小说），而“Sci-Fi”则可以指向电影分类与大众文化。
4 本片根据菲利普·K·迪克1968年的小说改编，两者在许多有趣的方面有所不同，本文仅讨论影片。
参考文献
1. Nordmann, A. “If and Then: A Critique of Speculative NanoEthics,” NanoEthics, No. 1 (2007): 31-46.
2. Nordmann, A. “A Forensics of Wishing: TechnologyAssessment in the Age of Technoscience,” Poiesis & Praxis, 7. No. 1 (2010): 5-15.
3. Nordmann, A. “ ‘(Im)Plausibility2 ’. International Journal of Foresight and Innovation Policy,” 9 (2013): 125-132.
4. Nordmann, A. “The Art and Craft of Anticipation Responsible Innovation, the Art and Craft of Anticipation,” Journal of Responsible Innovation, 1. No. 1 (2014): 87-98.
5. Grunwald, A., Nordmann, A. “Hermeneutic Technology Assessment-Why It is Needed and What It Might Be.” In Kuznetsov, D., Sergeev, V., Almazova, N., Nikiforova, N. (Eds.) Contours of the Future: Technology and Innovation in Cultural Context. Saint Petersburg: Asterion, 2017, 21-25.
6. Grunwald, A., Nordmann, A., Sand, M. (Eds.) Hermeneutics, History, and Technology: The Call of the Future. New York: Routledge, forthcoming.
7. Gadamer, H. G. Truth and Method. London: Sheed and Ward, 1989.
8. Riskin, J. The Restless Clock, Chicago: University of Chicago Press, 2016.
9. Nordmann, A. “Enhancing Machine Nature: From the Myth of the Machine to Sociotechnical Imaginaries
of Nonmechanical Machines.”In Hurlbut, B., TiroshSamuelson, H. (Eds.) Perfecting Human Futures: Transhuman Visions and Technological Imaginations. Wiesbaden: Springer, 2016, 195-214.
10. von Xylander, Ch. “A(l)gora: The Mindscape,” Technology and Language, 1. No. 1 (2020): 115-125.
11. Peters, B. “Betrothal and Betrayal: The Soviet Translation of Norbert Wiener’s Early Cybernetics,” International Journal of Communication, 2 (2008): 66-80.
12. Peters, B. “Normalizing Soviet Cybernetics,” Information & Culture, 47. No. 2 (2012): 145-175.
13. Dupuy, J. P. The Mechanization of the Mind: On the Origins of Cognitive Science. Princeton: Princeton University Press, 2001.
14. Weber, J. “Blackboxing Organisms, Exploiting theUnpredictable. Control Paradigms in Human-Machine Translation.” In Carrier, M., Nordmann, A. (Eds.) Science in the Context of Application, Boston Studies in the Philosophy of Science, vol. 274, Springer, 2011, 409-429.
15. Freud, S. The Uncanny. New York: Penguin Books, 2003.
16. Kurzweil, R. The Age of Intelligent Machines. Cambridge, MA: MIT Press, 1990.
17. Kurzweil, R. The Age of Spiritual Machines: When Computers Exceed Human Intelligence. New York, NY: Penguin Books, 1999.
18. Moravec, H. Robot: Mere Machine to Transcendent Mind. New York: Oxford University Press, 1998.
19. Dreyfus, H. What Computers Still Can’t Do: A Critique of Artificial Reason. Cambridge, Massachusetts: MIT Press, 1992.
20. Scott, R. (Director) Bladerunner [Film], 1986.
21. Spielberg, S. (Director) A.I. Artificial Intelligence [Film], 2001.
22. Dick, P. K. Do Androids Dream of Electrical Sheep? New York: Doubleday, 1968.
23. Anders, G. Die Antiquiertheit des Menschen: Über die Seele im Zeitalter der Zweiten industriellen Revolution. München: C. H. Beck, 1956.
24. Barrat, J. Our Final Invention: Artificial Intelligence and the End of the Human Era. New York: Thomas Dunne, 2013.
25. Brooks, R. Flesh and Machines: How Robots Will Change Us. New York: Pantheon, 2002.
26. Garland, A. (Director) Ex Machina [Film], 2015.
27. Jonze, S. (Director) Her [Film], 2014.
28. Bogdanov, A. Red Star: The First Bolshevik Utopia. Bloomington: Indiana University Press, 1984.
29. Shelley, M. Frankenstein: A New Edition for Scientists and Engineers, and Creators of All Kinds. Cambridge: MIT Press, 2017.
本文图文源自网络
责任编辑：闪米
您可能还想看
四十二史
宇宙的未来/现在/过去
长按二维码关注